Tiền thân của Viện trước năm 1975 là "Viện Văn hóa Pháp tại Sài Gòn" thuộc Đại sứ quán Pháp tại Việt Nam và quốc hữu hóa năm 1975.[1] Năm 1982, Viện được Bộ Ngoại giao Việt Nam chính thức tiếp quản và được Sở Ngoại Vụ Thành phố Hồ Chí Minh trực tiếp quản lý, và chính thức đổi tên thành "Viện Trao đổi Văn hóa với Pháp".

Tháng 1-2002, thành lập Phòng Du học Pháp (EduFrance) trực thuộc Viện nhằm cung cấp thông tin và hướng dẫn cho các sinh viên Việt Nam muốn du học tại Pháp. Cùng năm, vào tháng 11, Viện được trao tặng Huân chương Lao động hạng Ba, nhân dịp 20 năm ngày thành lập Viện.

Lần lượt vào các năm 2003 và 2006, Viện khánh thành Trung tâm Hình ảnh và Thư viện đa phương tiện, phục vụ nhu cầu tìm hiểu về nước Pháp của người dân thành phố và các tỉnh lân cận.

Tháng 11-2009, Viện được Thủ tướng Pháp Francois Fillon tới thăm. Một năm sau, Viện đón nhận Huân chương Lao động hạng Nhì.